NOTATION MATHÉMATIQUE

NOTATION MATHÉMATIQUE

Pour connaître une langue naturelle, il n’est pas nécessaire d’en apprendre l’histoire ni, pour comprendre sa littérature, de faire l’étude historique de la grammaire et du vocabulaire. À cet égard, le langage mathématique, en raison de son caractère plutôt artificiel, se présente bien différemment. Alors que l’accord qui est à la base d’une langue naturelle n’a jamais été exprimé explicitement, les conventions du langage mathématique l’ont toujours été. Cet état conventionnel du langage mathématique permet des manipulations qui ont parfois conduit à des changements fondamentaux et même brusques. Si, sous le terme de formalisation, la manipulation consciente du langage mathématique est devenue de nos jours une activité mathématique importante, elle est, à vrai dire, aussi ancienne que la mathématique elle-même. L’histoire des notations mathématiques montre une foule de tentatives, dont la plupart n’ont influencé le développement de cette science que par la démonstration de leur insuffisance. Si l’on rappelle dans cet article l’histoire des notations, c’est pour expliquer l’état présent des choses et justifier les différents choix qui y ont conduit. On ne mentionnera guère les tentatives qui ont été désavouées par l’histoire. D’autre part, on donnera au concept de notation mathématique une interprétation plus vaste que celle contenue dans les exposés traditionnels. Ce ne sont pas seulement les nombres, les variables, les fonctions, les êtres géométriques qui demandent une expression linguistique, mais aussi les propositions, les questions, les raisonnements, qui sont exprimés dans un langage naturel, manipulé ou totalement formalisé. Ces habitudes de notation qui caractérisent le style mathématique, quoique plus intéressantes que le système des symboles isolés, n’ont pas, à ce jour, été suffisamment étudiées.

1. L’arithmétique élémentaire

Les nombres naturels

En dehors des plus primitives, toutes les langues connaissent un système de mots numéraux pour désigner les premiers nombres (en général jusqu’à 9) et des unités supérieures (en général quelques puissances de 10), avec lesquels on forme des noms pour d’autres nombres par des procédures qui doivent refléter l’addition et la multiplication. Notons cependant qu’on rencontre parfois dans la formation des numéraux des principes soustractifs; ainsi en latin: duodeviginti , deux de vingt, pour 18.

Ces systèmes de formation de noms numéraux sont limités par le nombre restreint de noms d’unités supérieures. Au contraire, la représentation des nombres naturels sur l’abaque est plus algorithmique et est illimitée; les nombres y sont rendus au moyen de jetons d’après un principe positionnel: la valeur du jeton est déterminée par la colonne où il se trouve. Un petit nombre est rendu par le nombre correspondant de jetons dans la première colonne; dans la colonne suivante (vers la gauche), la valeur d’un jeton égale l’unité suivante du système (par exemple 10), etc. Souvent on trouve des unités intermédiaires (5 entre 1 et 10, 50 entre 10 et 100, etc.).

La plupart des systèmes de notation numérale furent un compromis entre le système linguistique et celui de l’abaque. La figure ci-dessous montre le nombre 1971 écrit d’après divers systèmes.

Le système égyptien est strictement additif; dans l’exemple choisi, on voit, à droite, le symbole de 1 000, suivi par neuf symboles de 100, sept de 10 et une unité.

La notation grecque archaïque connaît les unités intermédiaires de l’abaque; les symboles mêmes sont des lettres initiales de noms numéraux (le 立 de chilioi pour 1 000, le de déka pour 10, avec le signe multiplicatif 臨 pour penta = 5). Le système grec classique est celui des nombres alphabétiques: on indique les nombres 1, 2, .. , 9, 10, 20, ..., 90, 100, ..., 900 par les lettres de l’alphabet; un accent souscrit indique mille fois la valeur originelle; de cette manière, 見 vaut 1 tandis que le | 見 vaut 1 000. Ce système a été imité par les Hébreux et les Arabes.

Le système des chiffres romains est bien connu; on remarque dans la figure un exemple du principe soustractif qui joue aussi un rôle dans la formation des numéraux latins. Les symboles numéraux romains ressemblent aux lettres de l’alphabet latin; en particulier le C et le M semblent provenir des mots centum et mille. En réalité, l’origine de ces symboles n’est pas alphabétique; c’étaient des symboles purs, inventés probablement par les Étrusques. Par exemple, la forme originelle du symbole de 1 000 est un trait vertical dans un cercle: face=F0019 ž; ce symbole fut ensuite déformé en M. La moitié du symbole originel a donné le D de 500. Il faut noter que le principe soustractif, dans la formation des numéraux romains, n’est systématiquement appliqué qu’après le Moyen Âge.

Le premier et le dernier système représentés dans la figure ci-dessus ont la propriété commune d’être vraiment positionnels. Ils se distinguent par la base du système, qui était sexagésimal chez les Babyloniens, tandis que le nôtre est décimal. Dans le système babylonien, de droite à gauche sur la figure ci-dessus, le premier clou représente une unité du premier ordre, les cinq crochets valent chacun 10, les deux clous suivants indiquent deux fois l’unité d’ordre supérieur (60), et les trois derniers crochets valent 10 憐 60. Le système sexagésimal apparaît presque dès les premiers textes cunéiformes; son origine est obscure. Les langues des peuples qui l’ont inventé et développé avaient un système décimal de noms numéraux. Otto Neugebauer a formulé l’hypothèse que la base soixante a été adoptée comme le rapport arrondi de deux mesures ou de deux valeurs monétaires. Avec l’héritage astronomique babylonien la science grecque adopta le système sexagésimal en astronomie; il subsiste dans la division sexagésimale des mesures de l’angle et du temps. Notons que la division du pied en douze pouces et du sou en douze deniers est d’origine romaine; elle provient du rapport naturel entre le pied et le pouce.

Dans la plupart des textes babyloniens, il n’existe pas de symbole de zéro ; par conséquent, leur notation n’est pas univoque. Dans les textes babyloniens plus tardifs, on trouve un symbole de zéro intermédiaire (non terminal); mais il n’est pas écrit systématiquement. Dans les textes astronomiques grecs, le signe sexagésimal de zéro est 礼, première lettre du mot grec 礼羽嗀﨎益 signifiant «rien». Dans la numérotation alphabétique grecque, cette lettre signifiait 70; dans la notation sexagésimale de subdivisions du temps et de l’arc, on employait seulement les symboles alphabétiques jusqu’à 50, ou tout au plus jusqu’à 60; le symbole 礼 pour 70 était en fait disponible pour signifier zéro.

C’est en Inde que l’on trouve les premières traces des chiffres 1, 2, 3, 4, 5, 6, 7, 8, 9 actuellement usités; ils datent des premiers siècles de l’ère chrétienne, mais ne sont pas encore utilisés dans un système positionnel. Les nombres métaphoriques de la poésie sanscrite montrent, d’autre part, l’existence d’un certain système positionnel dans lequel, comme dans la langue indienne, on commençait par les unités. Au cours des VI^e et VII^e siècles de notre ère, on trouve sur le sol indien des preuves de l’existence du système décimal positionnel. Des éléments nouveaux de ce système, qui peuvent trahir l’influence de l’astronomie grecque, sont l’inversion de la succession des positions (qui alors correspond à celle de la langue grecque plutôt qu’à celle des langues indiennes) et le symbole de zéro (qui est un cercle, comme dans les textes astronomiques grecs).

Le monde chrétien devait la connaissance du système indien aux Arabes. Cependant, il faut noter que les chiffres employés par les Arabes occidentaux, ainsi que les nôtres, ressemblent plus aux chiffres originels indiens que ceux qu’utilisent les Arabes orientaux. Depuis le X^e siècle, le système indo-arabe s’est répandu en Europe. La forme des chiffres est restée constante depuis l’invention de l’imprimerie.

La ligne latérale est le système numéral chinois et japonais, parfois purement positionnel, parfois multiplicatif; l’écriture japonaise de 1971 donnée dans la figure se lit:

Durant l’Antiquité, les nombres écrits jouaient un rôle négligeable; les calculs se faisaient sur l’abaque. Ce que les Arabes apprenaient des Indes et enseignaient aux Européens n’était pas seulement l’écriture des nombres, mais aussi la méthode de calcul écrit, appelé algorithme par les Européens du Moyen Âge d’après le nom de Mu ムammad b. M s al-Khwar 稜zm 稜, auteur d’un livre où cette méthode fut exposée. Tant que les calculs arithmétiques se faisaient sur l’abaque, l’existence d’une écriture rationnelle des nombres était un facteur négligeable; au contraire, l’algorithme positionnel des nombres indo-arabes était tout à fait adapté au calcul écrit. Cependant on ne doit pas s’imaginer que ce calcul se faisait sur le papier. On écrivait dans de la poudre étalée sur une planche et, en calculant, on effaçait tous les résultats intermédiaires; cette méthode persista même assez longtemps après l’entrée en usage du papier comme support du calcul écrit, ou plutôt elle se transforma en une méthode de biffage; la méthode actuelle du calcul écrit fut établie par Luca Pacioli, dit Luca di Borgo (Summa de arithmetica, geometria, proportioni et proportionalita , publiée à Venise en 1494).

Les fractions

Les fractions sont un instrument très ancien du calcul. Les Égyptiens préféraient des fractions d’unité, c’est-à-dire à numérateur un; ils indiquaient une telle fraction par son dénominateur, muni d’une marque spéciale; il y avait des signes spéciaux pour 1/2, 1/3, 2/3. Des fractions générales sont représentées par des combinaisons additives de fractions d’unité: par exemple, on représentait 2/7 (= 1/4 + 1/28) par:

Il existait des tables pour réduire des fractions à des sommes de fractions d’unité.

Cette méthode de fractions d’unité fut adoptée par les Grecs; on indique une telle fraction par le symbole alphabétique de son dénominateur, muni d’un ou de deux accents. Mais on écrivait aussi des fractions communes, le numérateur marqué par un accent précédant le dénominateur marqué par deux accents. Dans les textes mathématiques, on trouve souvent le dénominateur dans une position d’exposant du numérateur.

Les Indiens écrivaient le dénominateur au-dessous du numérateur; la ligne de fraction horizontale est usitée chez quelques Arabes; elle devient usuelle au Moyen Âge chrétien. Pour des raisons typographiques, G. W. Leibniz proposait, sans succès, la notation a : b au lieu de ab ; au XIX^e siècle, A. De Morgan suggérait a /b , notation qui se répand de plus en plus.

Les précurseurs de nos fractions décimales sont les fractions sexagésimales des Babyloniens. Sans aucun scrupule, ces derniers continuaient les divisions après ce que l’on appellerait aujourd’hui la virgule, alors qu’ils ne possédaient pas de signe de séparation entre les unités et les parties fractionnaires, pas plus que de zéro terminal. Les fractions sexagésimales furent adoptées par les Grecs et les calculateurs du Moyen Âge.

En 1585, Simon Stevin, dit Simon de Bruges, publiait quelques pages auxquelles il donnait le titre bien caractéristique de: La Disme enseignant facilement expedier par nombres entiers sans rompuz tous comptes se rencontrant aux affaires des Hommes. Il proposait d’abolir les fractions communes en faveur du calcul décimal et de décimaliser la monnaie et les mesures. La notation de Stevin est, par exemple,

pour:

Dès le début du XVII^e siècle se répand la notation moderne avec le point décimal ou la virgule.

Les opérations arithmétiques

Outre les représentations verbales des opérations, on connaissait dès l’Antiquité des abréviations ou des signes spéciaux, tels que le 祥 retourné () de Diophante d’Alexandrie pour la soustraction; souvent l’addition s’exprimait par juxtaposition. Les signes «moins» et «plus» apparaissent dans des manuscrits allemands de 1481 et 1486; le premier qui les imprima (mais sans prétendre à une nouveauté) fut J. Widmann (1489). Ces signes sont employés pour indiquer non seulement des opérations, mais aussi l’état positif ou négatif; on a proposé pour l’enseignement scolaire de séparer ces deux fonctions, par exemple de remplacer 漣 3 par 漣 3 ou 漣3 ou 3 漣. L’origine des signes «plus» et «moins» est incertaine, probablement + est une ligature de «et», tandis que, depuis longtemps, dans les comptes, la barre horizontale avait servi à séparer le poids brut de la tare.

La croix de multiplication est plus récente. Michael Stifel (1545) indiquait la multiplication par un M; François Viète (1591) employait le mot latin in. Le premier exemple authentique de la croix se trouve chez William Oughtred (1637). Le point de multiplication provient de Leibniz (dès 1698). On doit noter qu’en algèbre la multiplication par juxtaposition était une vieille habitude. Le signe ÷ de division fut introduit par J. H. Rahn (1659) et adopté par les Anglais: on le trouve encore assez communément dans les textes de langue anglaise. Le «colon» (c’est-à-dire le signe «deux-points») de Leibniz pour la division ainsi que le point de multiplication se répandirent grâce à l’influence des manuels de Christian Wolff.

Le signe d’égalité provient de Robert Recorde (1557); pendant le XVII^e siècle, son usage fit des progrès en Angleterre tandis que, sur le Continent, le symbole cartésien (le symbole des astronomes pour le signe Taurus) prédominait. Grâce à Leibniz, le signe = l’emporta sur le symbole cartésien au cours du XVIII^e siècle.

Au signe d’égalité Thomas Harriot (1631) ajoutait ceux de majorité et de minorité: face=F0019 礪 et 麗.

La notation exponentielle des puissances est due à Descartes. L’idée des exposants négatifs et fractionnaires provient de J. Wallis (1656), mais c’est seulement I. Newton qui les écrira explicitement. Leibniz (1708) proposait de remplacer systématiquement les signes de racine par des exposants.

Pour la racine carrée, la notation R ou , abréviation du latin radix , apparut dans l’œuvre de Leonardo Fibonacci, dit Léonard de Pise (1220). L’opinion que le signe était un r déformé est réfutée par des manuscrits allemands de la fin du XV^e siècle qui prennent pour symbole de racine carrée un point avec une queue.

2. Le formalisme algébrique

La syntaxe des formules algébriques

Les langues naturelles doivent leur structure syntactique à un amas chaotique de moyens de flexion, de subordination, de conjonction, de ponctuation, de mélodie et de rythme. Mais, très souvent, la structure syntactique s’explique par le sens et non par des critères formels. «Mathématique et langue française» et «langue et littérature françaises» ont la même structure formelle, mais le sens indique des structures syntactiques différentes.

Dans le langage des expressions algébriques, on s’efforce d’exprimer complètement la structure par des moyens formels, dont les plus importants sont les parenthèses, crochets et accolades: (a + b ).c est aussi plein de sens que a + b.c , et on a besoin de pouvoir les distinguer.

Le système des règles pour la succession des opérations est plus compliqué qu’on ne pense et que ne le veulent certains vers mnémotechniques. Pour des sommes algébriques telles que:

la règle est que tout se fait dans l’ordre où cela est écrit, autrement dit tout se passe comme si toutes les parenthèses ouvrantes étaient placées à gauche. Pour l’addition, qui est associative, toute règle est superflue, tandis qu’il est convenu que:

doit être lu comme:

Ce principe de l’ordre linéaire est si naturel que, avant l’usage de parenthèses, on structurait des expressions algébriques au moyen de déviations par rapport à l’ordre linéaire. Par exemple, Descartes écrit (Œuvres , édition Adam et Tannery, vol. VI, p. 415):

C’est une méthode qu’on trouve déjà chez Viète; parfois il emploie des crochets placés d’un côté ou même des deux côtés d’une expression algébrique. Le principe de structure par rupture de l’ordre linéaire est plus ancien; il est à l’origine de cette notation des fractions que l’on doit aux Indiens.

Un autre moyen formel de structure a été la barre horizontale, servant à agréger les termes; Descartes fut le premier à l’employer à profusion. L’usage de cette barre s’est conservé jusqu’à la fin du XIX^e siècle dans des expressions telles que n + 1. Parfois, des accolades horizontales ont la même fonction. Le dernier vestige de cette écriture est la barre du signe de racine a + b ; la barre qui indique la conjugaison complexe est fonctionnelle plutôt que syntactique. La paire de parenthèses ne remplaça pas d’emblée la barre. D’abord employée par Stifel (dans ses manuscrits, 1544), elle prévalut grâce à Leibniz.

Le plus ancien des principes structurels formels est celui selon lequel certaines opérations en précèdent d’autres. Le principe selon lequel la multiplication crée une liaison plus étroite que l’addition et la soustraction est attesté dès les textes cunéiformes. Il est, en effet, bien naturel de traiter la multiplication comme une dénomination (2 憐 6, c’est deux sixaines), même si l’on rejette des abus didactiques (2a +3a = 5a , parce que 2 vaches + 3 vaches = 5 vaches). Cette interprétation de la multiplication fut historiquement suggérée par le langage des équations où, dès le début, un problème tel que x ² + 21 = 10 x était formulé sous la forme «une chose-carré plus 21 égale 10 choses». À partir des premières formules algébriques, il ne fut jamais douteux que la multiplication précédait l’addition et la soustraction, en particulier si on indiquait la multiplication par juxtaposition; il en fut de même quand la multiplication fut exprimée par un signe explicite, par exemple chez Viète qui employait en général le mot in en tant que symbole de multiplication. Dès la notation exponentielle de Descartes pour les puissances, il devient aussi évident que l’opération exponentielle précède l’addition, la soustraction et la multiplication.

Tous ces moyens structurels étaient de caractère agrégeant; cela est rare dans les langues naturelles, qui préfèrent la structuration par séparateurs. Des formules telles que:

qu’on trouve parfois dans les cahiers de calcul arithmétique, trahissent l’intention d’une structure par ordre linéaire. Dans les formules mathématiques, au contraire, on suppose, sans l’indiquer par des parenthèses et sans le dire explicitement, que le signe d’égalité sépare plus fortement que les autres signes (ce qui est également vrai pour les signes d’inégalité et d’ordre). Dans le passé, il y a eu des essais notationnels de structure par séparation. Stevin (1585) employait) (comme séparateur. On trouve des points et des colons séparateurs chez M. Rudolff (1525), C. Stifel (1544), L. Van Ceulen (1610) et leurs contemporains; W. Oughtred (1631), J. Wallis (1670), Jakob Bernoulli (1689) se servaient du colon comme séparateur; Leibniz (1702) utilisait parfois la virgule; même chez L. Euler et J. L. Lagrange, il existe de telles notations.

Des ponctuations séparantes seraient plus économiques et plus faciles à embrasser d’un coup d’œil. B. Russell et A. N. Whitehead ont employé d’une manière presque exclusive les ponctuations séparantes dans leurs Principia Mathematica. Au lieu des parenthèses de force agrégeante graduée, on écrirait des séparateurs de force graduée. Les ponctuations des Principia Mathematica sont des groupes de points: tel groupe sépare d’autant plus fortement qu’il compte plus de points. Cette méthode a été raffinée par H. Freudenthal dans Lincos.

Bien que le système de ponctuations séparantes soit plus pratique, il est peu vraisemblable qu’on parvienne un jour à adapter la structure du langage mathématique à ce principe.

Le sens des formules algébriques

L’interprétation naïve des formules algébriques est celle d’un rapport sur une suite d’opérations et leur résultat: 2 + 7 est lu comme un commandement «À 2 ajoutez 7», et la formule:

comme un récit «À 2 ajoutez 7 et le résultat est 9». Cette interprétation naïve explique aussi bien la structure par ordre linéaire des expressions:

que les:

des cahiers de calcul arithmétique.

Selon l’interprétation acceptée en mathématiques, 2 + 7 ne constitue pas un problème mais un nombre et, d’une façon générale, a + b est un nombre dès lors que a et b sont des nombres. Dans cette interprétation, le signe d’égalité se lit «est la même chose que». Un même objet peut avoir des noms divers, ainsi «Paris» et «la capitale de la France» désignent le même objet; le nombre 9 peut être désigné par une infinité d’expressions, telles que 2 + 7, 10 漣 1, 3², 9.1, etc. Dans cette interprétation, le signe d’égalité n’est pas un signe mathématique, mais un signe sémantique, exprimant que deux termes signifient la même chose.

Cette interprétation s’est développée lentement et, même à l’heure actuelle, certains auteurs de manuels scolaires ne respectent pas cette convention qui est l’essence du langage mathématique. En effet, même si l’on peut interpréter 2 + 7 comme un problème, il n’en est pas de même du cas de a + b , si a et b ne sont pas donnés explicitement.

L’interprétation statique des expressions algébriques est une intervention qui date probablement de 1460 et qui peut être attribuée à Johann Müller dit Regiomontanus et à l’auteur anonyme d’un manuscrit de Munich (1455-1461). Cette nouveauté apparut avec des équations qui, pour la plupart, comportaient des fractions telles que:

Pour des expressions avec des nombres connus , l’interprétation naïve est bien suffisante et, d’autre part, le concept de fraction commune repose sur l’idée que 27 n’est pas, comme 2 + 7, un problème mais un nombre, idée inhérente à l’arithmétique indienne, distincte de celle des Égyptiens qui se croyaient obligés de transformer 27 en 14 + 128. Finalement, l’ordre vertical dans l’écriture de la fraction produit la première structuration naturelle, avant même l’emploi des parenthèses.

Selon l’interprétation moderne, les deux membres d’une équation décrivent le même objet, et l’équation est l’expression d’une proposition qui affirme cette identité. Cependant, jusqu’aux textes les plus récents, on trouve des traces du «style naïf», par exemple:

Ce qui suit «les coefficients de Fourier », «nombre» et «pour tout» devrait, en effet, être un objet mathématique (par exemple, un nombre) tandis que, dans les expressions précédentes, c’est une proposition. Évidemment, on veut que le signe d’égalité ou d’ordre ne soit pas lu comme un prédicat «est égal à» ou «est plus grand que», mais plutôt comme un attribut «égal à», «plus grand que». Il serait plus correct d’écrire respectivement:

De telles licences ne sauraient persister longtemps encore.

Les lettres

Chaque langue connaît des noms propres et des noms communs. Vercingétorix , la France , Sirius , trois , la révolution de février , le Soldat inconnu désignent chacun un seul objet, tandis que des mots tels que rat , pierre , je , hier , là-bas sont des termes ambigus. En mathématique, les termes ambigus sont appelés des variables. La notation des variables est très différente dans les langues naturelles et dans la mathématique. Les variables des langues naturelles ont un domaine restreint de variabilité; les variables que l’on vient de citer ne s’appliquent respectivement qu’à des rats, des pierres, des hommes, des moments, des lieux. Au contraire, les lettres dont on se sert en tant que variables en mathématique peuvent désigner tout ce qu’on veut, bien qu’il s’agisse de préférence d’objets mathématiques. Tandis que les mathématiciens tiennent à indiquer, dans un contexte donné, la même chose par le même nom et à répéter ce nom autant de fois qu’on revient sur cette chose, une manie des langues naturelles veut, au contraire, qu’on évite les répétitions et qu’on remplace des noms par des synonymes généraux ou accidentels. Ainsi dans la phrase «Jean s’est brûlé la cervelle dans sa voiture», on désigne la même personne par quatre termes différents: Jean, se, la, sa.

Puisque pierre est un nom commun à toutes les pierres, on a besoin d’autres moyens linguistiques pour distinguer éventuellement des pierres diverses. On satisfait à ce besoin en parlant de cette pierre-ci et de cette pierre-là, ou bien en disant: «encore une pierre», ou «la pierre qui est dans ma main», etc. Lorsqu’on envisagea en géométrie des figures complexes et, en tout cas, dès que les raisonnements géométriques furent rédigés par écrit, il devint impossible de se contenter de citations telles que «ce point-ci» et «ce point-là». Il était bien naturel qu’on numérotât les points d’une figure, ce qu’on faisait en se servant des lettres de l’alphabet grec qui jouaient en même temps le rôle de chiffres. On distinguait un point des autres en parlant du «point à A», ce qui devenait «le point A» et enfin simplement «A». Cet A peut être interprété comme un nom propre, à savoir le nom du point de la figure en question auprès duquel se trouve la lettre A. Mais, étant donné la généralité des énoncés géométriques où A peut être un point quelconque, les lettres devenaient des noms ambigus de points, donc des symboles de variables. Grâce à l’alphabet, on peut donc disposer d’un grand nombre de telles variables, ce qui est un avantage appréciable.

Comparée à l’usage mathématique des lettres depuis Viète, la pratique des lettres dans la géométrie grecque paraît bien primitive. On se sert de lettres en tant que noms d’objets, mais, à partir de ces symboles, on ne construit que très imparfaitement des mots et des phrases. Si une figure est construite pas à pas, on donne à chaque nouveau point un nom nouveau. L’imposition de noms ne reflète ni la marche de la construction ni les relations existantes. Il existe certes des traces de terminologie algorithmique: si A et B sont deux points, AB est la droite, ou le segment, qui les joint; mais on attribue à l’intersection de deux droites à noms donnés un nom arbitraire non algorithmique. Ce système s’est conservé en géométrie jusqu’à nos jours, et cela malgré les tentatives algorithmiques de Leibniz en géométrie, dont le programme a été rempli en un certain sens par le calcul vectoriel.

Il est bon d’expliquer pour quelle raison Viète (1591) doit être considéré comme fondateur de notre langage algébrique. On ne cesse de «découvrir» un usage des lettres en algèbre antérieur à celui de Viète et de lui en retirer la primeur. En fait, le mérite de Viète ne réside pas dans l’introduction des lettres en algèbre. Avant lui, on employait bien des lettres en algèbre, mais on imitait en général la méthode de la géométrie: par exemple, Maurolycus, connu aussi sous le nom de Maurolico, dit Francesco da Messina (1575) fait usage de lettres, mais sans calculer avec elles et, s’il fait des additions ou des multiplications, il introduit une nouvelle lettre pour chaque somme et chaque produit.

Un algorithme vraiment algébrique s’est développé assez tôt dans la théorie des équations. On invente des symboles pour l’inconnue et ses puissances, puis on forme des sommes algébriques avec ces symboles et des numéraux. Cela commence déjà avec Diophante. Les Indiens employaient des noms de couleurs pour des inconnues diverses. Les termes utilisés en arabe pour l’inconnue, qui signifient chose et racine, et le nom du carré de l’inconnue, qui provient du grec 嗀羽益見猪晴﨟 et qui signifie la possession, ont donné naissance aux termes en usage chez les abacistes et les cossistes du Moyen Âge chrétien: res , radix , causa (cosa italien) pour l’inconnue, census pour le carré de l’inconnue. Chez Regiomontanus (1470) et l’anonyme des manuscrits de Munich (1455-1461), des abréviations de res et de census apparaissent dans les formules; chez Rudolff (1525), un système de notations pour l’inconnue et ses puissances se trouve développé. Stevin indiquait la n -ième puissance de l’inconnue par un n dans un cercle. La plus importante innovation avant Viète est celle de J. Butéon (1559): l’usage des lettres A, B, C pour les inconnues dans des équations à plusieurs inconnues.

Le grand mérite de Viète est d’avoir amalgamé la méthode traditionnelle en géométrie et la méthode nouvelle en algèbre. En algèbre, il indiquait par des lettres non seulement les inconnues, ce qui était une habitude algébrique, mais aussi les indéterminées, ce qu’on avait fait en géométrie depuis l’Antiquité; d’autre part, avec ces lettres, il formait des mots, c’est-à-dire des expressions algébriques avec lesquelles il opérait comme on l’avait fait depuis un siècle dans les équations.

Ce fut une innovation qui marqua une époque. Il faut toutefois noter que, sous certains aspects, le formalisme de Viète était plus lourd que celui de ses prédécesseurs. Il indiquait la multiplication et la formation des puissances par des mots latins, même déclinés: quadratum , cubus , quadrato-quadratum pour la deuxième, la troisième, la quatrième puissance, potestas pour une puissance générale; et, s’il y en avait deux dans le même contexte, il désignait l’une par potestas et l’autre par gradus. Pour:

A potestas

E potestate 漣 A potestate

+ in A gradum. E gradui + A gradui

Cependant, la voie vers une notation rationnelle de puissances générales était déjà indiquée avant Viète, au moins pour les puissances de l’inconnue, par N. Chuquet (1484), qui pour 1 225 + 148 x ² écrivait 1 225. face="EU Caron" ザ 148², et par Stevin (1585), qui se servait de nombres encerclés.

Après des tentatives moins réussies, c’est l’écriture exponentielle des puissances de Descartes qui s’impose.

L’usage des lettres italiques dans les expressions mathématiques provient de Thomas Harriot (1631, œuvre posthume).

Les indices

Alors que l’écriture cartésienne des exposants fut immédiatement acceptée, le progrès des indices fut plus difficile. On ressentit assez tôt le besoin d’arranger plus systématiquement les notations dans les figures géométriques et dans des formules algébriques par l’usage de lettres avec des indices. Chez Stevin, on trouve des lettres avec des points: B, face="EU Updot" 蘿, B; F. Van Schooten (1649) et Leibniz (1682) distinguent des points de la même courbe par des nombres, C, 2 C, 3 C, ou ¹C, ²C, ³C. Mais ces méthodes rationnelles ne sont pas vite adoptées. Chez Jakob Bernoulli (1713, œuvre posthume), on lit: Vocantur termini intra maximum M et limitem sinistrum L, secundus a maximo F, tertius G, quartus H, etc., et extra limitem L, secundus ab ipso P, tertius Q, quartus R, etc.

Après la première moitié du XVIII^e siècle, il devient très usuel d’ajouter un, deux, trois accents aux lettres si les grandeurs à désigner sont semblables à une première grandeur; on fait de même dans des phrases telles que «Soient, A, A , A ,... des fonctions», et, après le quatrième terme, on continue avec des chiffres romains. Même à cette époque la méthode de Bernoulli n’est pas du tout obsolète; au contraire, chez Euler, il existe un grand nombre d’exemples tels que:

Euler ne se servait pas d’indices et n’employait les accents que très rarement.

Ce qui manque alors, c’est d’abord une systématique des accents et des indices, puis l’indice général n , c’est-à-dire une variable ou indéterminée dans l’indice. Le plus important précurseur de méthodes plus rationnelles est certainement G. Cramer qui formule ce qu’on appelle la règle de Cramer (1750):

Le premier «indice général» se trouve chez Lagrange, dans son travail sur la corde vibrante (1759); il appelle les élongations des points de la corde dans les points d’une division:

et il arrive finalement à des formules telles que:

À un autre endroit, il appelle les racines d’une équation r 1, r 2, r 3, ... et, dans les formules qui suivent, il y a des expressions telles que (rm )^m-2 . En 1769, Lagrange écrit: «Supposons que, dans la série E, E , E , etc., le terme E size=1^猪 soit E et le terme suivant E size=1^猪+1 = E ...»; ici chaque terme naît du terme suivant d’après une loi bien déterminée.

Ces exemples sont toutefois exceptionnels. C’est P. S. Laplace qui s’attache à l’écriture des indices de Lagrange pour la perfectionner. Chez lui on trouve des indices, indices numériques ou indices généraux, à tous les coins des lettres principales, et aussi des indices doubles. Il prend même l’habitude d’écrire les coefficients d’une série de puissances avec la même lettre marquée par des indices et de numéroter une suite de variables stochastiques par des indices.

Gauss connaissait l’écriture des indices, mais en général il préférait la méthode ancienne. Dans l’œuvre de Jacobi et Abel, l’usage des indices et de l’«indice général» est devenu normal. Il en est de même dans les quelques pages que l’on possède de É. Galois: on y trouve pour la première fois les indices d’indices.

À côté de ces trois mathématiciens, A. L. Cauchy est plus conservateur. C. Hermite est le premier à éviter les sommes explicites et il se sert largement du signe , introduit par Euler (1755), employé parfois par Lagrange et plus souvent par Jacobi.

Quand C. Jordan écrit son célèbre Traité des substitutions et des équations algébriques (1870), les indices ne sont pas encore familiers. On a accepté les indices simples, mais on se sent mal à l’aise avec des indices multiples. L’extrême prolixité de cette œuvre rappelle le style d’Euler plus que celui de Galois. Des formules illisibles telles que (Jordan, op. cit. , p. 117):

sont la règle et, nulle part, on ne trouve un signe .

C’est avec la plus grande ténacité que l’ancien style se maintient dans des domaines qui s’enorgueillissent d’une longue tradition. Un exemple pris dans les Grundlagen der Geometrie de Hilbert (première édition en 1899) en témoigne: «Un nombre quelconque de points étant donné sur une droite, on peut désigner ces points par A, B, C, D, E, ..., K de telle sorte que le point désigné par B est situé entre A d’un côté et C, D, E, ..., K de l’autre côté, ensuite C entre A et B d’un côté et D, E, ..., K de l’autre, puis D entre A, B, C d’un côté et E, ..., K de l’autre. Hors de cette désignation, il y a l’inverse K, ..., E, D, C, B, A avec la même propriété.»

Aujourd’hui, une telle manière d’écrire serait impossible.

3. Les fonctions

L’emploi mathématique du terme de fonction date de la correspondance de Leibniz avec Johann Bernoulli. Les auteurs sont conscients du fait que, parmi quelques variables, l’une peut être une fonction de l’autre et ils rendent, s’il est possible, cette dépendance explicite; mais des signes de fonction y sont très rares (Johann Bernoulli, 1718: 﨏x , 﨏 fonction de x ). Cela change avec Euler et J. d’Alembert; Euler établit la préférence pour f , F, 﨏, 淋 en tant que symboles de fonction et Lagrange propage l’emploi de ces signes.

La notation des fonctions a subi des changements profonds depuis 1930 environ, bien qu’il y ait des précurseurs dès le début du siècle et que des conservateurs ne se soient pas encore convertis au nouveau style. Dans l’analyse pratiquée avant 1930, il était usuel de désigner une fonction par f (x ), c’est-à-dire avec un argument explicite. Le nouveau style fut suggéré par l’analyse fonctionnelle. Tant que l’on ne considère qu’une seule fonction ou un nombre fini de fonctions, il importe peu qu’une fonction soit désignée par f ou par f (x ). Mais de quelle manière devrait-on exprimer le fait qu’une fonction appartient à un ensemble A? La notation f (x ) 捻 A est décidément fausse ; elle stipule l’appartenance des valeurs de la fonction à A; on doit dire f 捻 A. De quelle manière doit-on exprimer le fait qu’une fonction est transformée en une autre par une transformation fonctionnelle?

est évidemment faux; on doit dire:

Comment indiquer la translation de la variable dans une fonction?

est impossible; cela devient:

Dès que l’on s’orienta vers des ensembles de fonctions et vers les transformations fonctionnelles, on fut obligé d’adopter une notation rationnelle de fonction: f est alors la fonction, et f (x ) la valeur qu’elle adopte à x. Cet x est une variable libre ou liée de quelque manière, ou bien il peut indiquer quelque valeur fixe. Mais la fonction n’est pas mariée avec cet x ; au contraire, f (x ) est fonction de x comme f (y ) est fonction de y.

Ce mode de notation, qui a fait de grands progrès dans la mathématique pure et, en particulier, dans ses parties les plus modernes, est difficile à concilier avec un autre qu’on pourrait appeler l’idée des grandeurs et qui était la racine historique du calcul différentiel et intégral et la racine des notations suggestives de Leibniz. Imaginons une boîte noire avec un nombre de cadrans où l’on peut lire et ajuster certaines grandeurs, qui, par des lois internes de la boîte, peuvent dépendre les unes des autres. À partir des grandeurs qui s’expriment sur les cadrans, on peut former de nouvelles grandeurs, algébriquement et en divisant l’accroissement infinitésimal d’une grandeur par celui d’une seconde grandeur (alors que les autres grandeurs sont fixes, ou variables, d’après des modes prescrits). Tous ces processus peuvent s’effectuer abstraitement, sans que les dépendances fonctionnelles entre les grandeurs soient jamais explicitées. Si x et y sont deux grandeurs, les quotients différentiels

sont tous les deux de nouvelles grandeurs. Dans un système cinématique, on forme le quotient différentiel du chemin x d’après le temps t pour obtenir la vélocité v , mais:

peuvent être aussi acceptables. Dans un système thermodynamique, on forme des quotients différentiels entre les grandeurs p (pression), T (température), V (volume); dans ce contexte, les lettres ne sont pas des variables, elles ne sont pas échangeables comme c’est l’habitude avec les variables.

Cette opération est réalisable jusqu’au moment où l’on veut indiquer symboliquement les dépendances fonctionnelles sous-jacentes. Introduire une nouvelle lettre pour chacune des dépendances fonctionnelles est possible, mais cela conduit à un déluge de lettres. On indique par x (t ) la fonction par laquelle le chemin x dépend du temps t , ce qui est contraire à la notation fonctionnelle, moderne ou ancienne. Si le point P d’une courbe dépend d’un paramètre t , cette dépendance est exprimée par P(t ); si l’on introduit un autre paramètre s au lieu de t , par exemple l’arc de la courbe, P(s ) désignera cette nouvelle dépendance. Pauvre étudiant qui, dans la demi-heure qui sépare deux cours, doit s’adapter à un langage qui est anathème dans l’un et de bon ton dans l’autre!

En mathématique pure, on a raison d’exorciser une notation dont on n’a pas besoin, mais cette notation demeure fort utile en physique, et il n’y a pas d’autre possibilité pour les physiciens. Le mode de notation des grandeurs peut être aussi rigoureux que le mode fonctionnel si l’on s’abstient de contaminations. Au XIX^e siècle, les mathématiciens, en particulier Jacobi, ont fait un mélange des deux; les mathématiciens du XX^e siècle ne pouvaient plus comprendre ce jargon et ils ont rejeté le mode des grandeurs, ce qui était excessif. Ce qu’il faut, c’est une réinterprétation de ce langage.

Les difficultés qu’on rencontre sont étroitement liées à une imperfection du langage fonctionnel. Que doit-on faire si l’on veut dire qu’une certaine expression est considérée en tant que fonction d’un de ces termes, par exemple:

comme fonction de x ou de a , ou:

comme fonction de a , de b , de g , ou des trois à la fois, etc.?

Évidemment, on peut introduire un nouveau signe pour chaque nouvelle fonction. Soit f la fonction définie par:

et ainsi de suite; mais c’est trop compliqué. Ce qu’il faut, c’est un algorithme pour transformer une expression en un symbole de fonction. Récemment, pour de telles fonctions, on a proposé l’écriture:

on ne fait cependant jamais d’opérations avec ces symboles, et cela montre qu’ils sont impraticables. Depuis longtemps, et à l’insu de beaucoup de mathématiciens, des notations plus pratiques existent; elles ont été propagées récemment sous la forme suivante: Le symbole 聆|^x transforme une expression en un signe de fonction de x , par exemple:

Ce symbole est aisément appliqué en succession; par exemple, si G est un groupe,

est l’automorphisme intérieur induit par a , et:

est l’application canonique du groupe G sur son groupe d’automorphismes intérieurs; pour une fonction f de nombres réels,

est la fonction déplacée à gauche le long de l’intervalle a , et:

est ce déplacement (translation), et:

est l’homomorphisme qui fait correspondre à a la translation par a .

L’usage de ce signe 聆| qui transforme une expression en un symbole de fonction peut être étendu, au cas où la variable indépendante ne figure pas explicitement, pour arriver à une notation rationnelle des dépendances de grandeurs; par exemple, dans un système mécanique donné, le chemin x en tant que fonction du temps t devrait être indiqué par:

Le même artifice pourrait permettre une notation rationnelle des dérivées partielles, qui ont posé jusqu’à maintenant d’épineux problèmes de notation.

4. La logique symbolique

Les ensembles

Depuis Leibniz, on a avancé divers systèmes de notations pour la logique symbolique. Il faut mentionner les tentatives de Boole (1847), E. Schröder (1877), G. Frege (1879, 1893), Peano (1891, et son Formulaire de mathématique à partir de 1895), Russell et Whitehead (1910); tous ces systèmes incluent les notations ensemblistes.

Il y a un manque d’uniformité dans les notations ensemblistes et logiques. On pratique des systèmes notationnels différents dans la théorie de la mesure, dans celle des probabilités, en topologie, en analyse abstraite, en algèbre, dans les fondements de la mathématique. La plupart des logiciens emploient un symbolisme archaïque, différent de celui de la plupart des mathématiciens. De plus en plus, ces derniers s’accoutument à formaliser le texte qui accompagne les formules par l’usage de symboles logiques; c’est parfois le galimatias sublime. Les abus se sont multipliés dans les livres scolaires modernes. Quelques symboles gigantesques ont été propagés par Nicolas Bourbaki. Il demeure que les grandes tendances sont saines: alléger des symboles surchargés et formaliser de plus en plus.

Le signe d’appartenance ensembliste 捻 est dû à Peano. Il écrivait l’epsilon à la manière des Européens du Continent; Russell et Whitehead le remplacèrent par l’epsilon britannique ( 﨎) qui, introduit sur le Continent, fut en général distingué de l’epsilon ordinaire, indispensable dans l’epsilontique. Le nombre de Continentaux qui emploient le 﨎 pour l’appartenance et de Britanniques qui emploient le 捻 comme variable mathématique décroît de plus en plus.

Le signe d’inclusion est chez C. S. Pierce (1867), face=F0019 麗, et plus tard 說 chez E. Schröder; le même signe renversé fut adopté par Peano pour l’implication; il a le double sens d’inclusion de classes et d’implication chez Russell et Whitehead, ce qui est une source de confusion (parce que, si A 說 B, alors x 捻 A 念 x 捻 B). A. Schoenflies (1913)

se décida pour 麗 et 麗=, C. Caratheodory (1918) pour 麗, F. Hausdorff pour 說 et 說=. Ce dernier choix l’a emporté sur les autres; 麗 a disparu en tant que symbole d’inclusion; 麗 et 麗= subsistent encore, en particulier en théorie des groupes où ils étaient usuels depuis le début du XX^e siècle. Pour la majorité, 說 inclut l’égalité, mais il y a nombre considérable d’auteurs qui distinguent 說 et 說=.

Boole interpréta l’union et l’intersection comme somme et produit; il les notait par les symboles algébriques correspondants; Schröder adopta cet usage. Peano introduisit les symboles 聆 et 惡 au lieu de + et . (pour des classes et des propositions); Russell et Whitehead les adoptèrent (pour des classes, et non pour des propositions). G. Cantor et Schoenflies préféraient des notations plus compliquées, mais Hausdorff se décida pour la notation d’addition et de multiplication pour indiquer l’union et l’intersection. Dans la théorie des groupes, on répudia l’interprétation multiplicative de l’intersection qui contredit la notation AB pour l’ensemble des ab avec a 捻 A et b 捻 B; vers 1920, le signe 廬 fut introduit pour désigner l’intersection de sous-groupes d’un groupe. Quand les procédures ensemblistes firent des progrès dans l’algèbre, on se vit forcé, pour des raisons analogues, de remplacer le + en tant que signe d’union par 鈴. Ces arguments contre l’interprétation additive et multiplicative de l’union et de l’intersection ne valaient ni dans la théorie de la mesure ni dans la topologie. Mais, dès que les méthodes algébriques gagnèrent du terrain dans la topologie et lorsque s’élabora clairement l’algèbre topologique, on dut abandonner cette interprétation et cette notation. Il y eut des tentatives pour revenir aux notations de Schoenflies, mais, depuis 1935 environ, les anciens symboles 聆 et 惡 de Peano furent repris. (B. L. Van der Waerden, en 1937, employait 惡 pour l’intersection et 鈴 pour l’union.) Il semble qu’à présent la majorité des auteurs se sert de tels symboles, mais une minorité importante (topologues ensemblistes et probabilistes) s’attache toujours aux + et .. Certains distinguent des symboles minuscules 聆, 惡 pour les opérations sur une paire d’ensembles et des majuscules dans:

pour l’union et l’intersection d’un ensemble d’ensembles. Ceux qui préfèrent la notation algébrique prennent et 刺 pour l’union et l’intersection d’un ensemble d’ensembles. Le signe remplaçant 漣 pour indiquer la différence de deux ensembles fut introduit vers 1935, mais le signe soustractif au sens ensembliste s’est révélé plus tenace que les signes additif et multiplicatif.

Pour indiquer le vide et l’univers, Boole employait les chiffres 0 et 1, Schröder le suivit, mais Peano choisit des symboles différents, qui furent adoptés par Russell et Whitehead. Hausdorff choisit 0 pour l’ensemble vide. Sous l’influence de l’algèbre, cette notation dut être changée. Au lieu de remplacer le chiffre 0 par un symbole tel que 獵, qui par sa forme suggérerait le vide, on choisit un zéro biffé ou un cercle biffé 歷 qui suggèrent des ensembles non vides. Souvent, s’il plaît à l’imprimeur et si l’auteur y consent tacitement, ces signes sont remplacés par la lettre grecque 淋.

Pour Boole le complément d’une classe x était 1 漣 x , Pierce choisit la barre, et Peano le signe «moins» qui fut adopté par Russell et Whitehead. D’autres ont proposé l’astérisque. Bourbaki introduisit un 璉 gigantesque qui a été adopté par bien d’autres. Le symbole de complément est peu important parce que, si l’univers n’est pas évident, d’autres notations sont plus commodes.

L’usage des accolades d’agrégation pour la formation d’ensembles semble provenir de Hausdorff; d’autres préféraient des parenthèses. Dans la théorie de la mesure, on avait besoin de transformer une proposition dépendant de x dans l’ensemble des x pour lesquels la proposition est vraie; pour cela, on utilisait des moyens divers, par exemple:

La notation présente:

ensemble des x de A tel que F(x ), provient de Peano. C’est la notation qui entraîne le plus d’abus. On lit des absurdités telles que:

pour l’ensemble des multiples de 7,

pour l’ensemble des polynômes à coefficients complexes,

pour on ne sait quoi, et:

ou:

si l’on veut parler non pas d’un ensemble , mais d’une suite de nombres complexes. Il serait recommandable d’abolir ce signe ou au moins de ne plus l’employer dans la mathématique scolaire.

Des abus plus grossiers sont faits au niveau scolaire par les accolades agrégeantes, qu’on confond avec le diagramme de Venn, pour y placer des images au lieu de noms d’objets mathématiques; d’autre part, très souvent, on lit quea , b , c est l’ensemble des lettres a , b , c .

La paire ordonnée de a et b est désignée depuis Hausdorff par (a , b ). Il vaudrait mieux ne pas demander à des ponctuations telles que les parenthèses et les accolades de représenter des opérations. Pour la paire ordonnée de a et b , on a proposé 掠a , b 亮, et 掠A, B 亮 pour l’ensemble des 掠a , b 亮 avec a 捻 A et b 捻 B.

B^A est usuel pour l’ensemble des applications de A en B; une notation telle que A B serait préférable. D’autre part, 2^A pour l’ensemble des sous-ensembles de A a été remplacé par 戮(A).

Pour dénoter qu’un sous-ensemble A d’une certaine structure X n’est pas seulement un sous-ensemble mais qu’il possède aussi la structure induite par X, on a proposé A sub X au lieu de A 說 X.

Des abréviations sont devenues communes pour certains ensembles ou certaines catégories tels que N, Z, Q, R, C pour l’ensemble des nombres naturels, l’ensemble (le groupe ou l’anneau) des entiers relatifs, le corps rationnel, le corps réel, le corps complexe. Un système étendu a été proposé par H. Freudenthal et H. de Vries (Linear Lie Groups , 1970), par exemple Spa (espaces), Spa Top (espaces topologiques), Spa Lin (espaces linéaires), etc.

La logique

Boole, Peirce, E. Schröder et Peano employaient souvent les mêmes symboles au sens logique et au sens ensembliste. Pour la conjonction, Russell et Whitehead adoptaient l’écriture multiplicative de Boole et d’autres, tandis que pour la disjonction ils introduisirent le symbole 鈴. Hilbert et son école choisirent le signe & pour la conjonction; pour la disjonction, ils employaient un 鈴 qui pouvait être omis. Sous l’influence des signes ensemblistes 聆 et 惡, les signes logiques 鈴 et 廬 pour la disjonction et la conjonction sont devenus usuels parmi les mathématiciens, mais il y a toujours des logiciens qui préfèrent les notations de Russell et Whitehead ou celles de Hilbert.

La négation est indiquée chez Peirce par une barre, chez Peano par le trait «moins», chez Russell et Whitehead par le symbole 黎. Ce dernier était un choix très malheureux, car ce symbole était utilisé pour la similarité géométrique et, plus tard, comme symbole d’équivalence. Tous ces signes sont toujours employés, en particulier le signe 黎 qui est préféré par les logiciens, mais la majorité des mathématiciens a adopté un signe introduit pour la négation par A. Heyting: il s’agit du signe 囹.

Pour l’implication, Russell et Whitehead se servaient, comme Peano, du signe 念 de Schröder. Hilbert et son école introduisirent la flèche 轢, signe qui est plus suggestif et évite l’homonomie avec le symbole 念 ensembliste. Ce signea été remplacé dans le cercle de Bourbaki par la flèche double 輦, probablement pour réserver la flèche simple aux applications d’ensembles. Tandis que le symbole 念 pour l’implication a toujours la faveur des logiciens, la flèche double est devenue d’un usage courant parmi les mathématiciens. Cela a eu des conséquences gênantes. Parmi les mathématiciens, il y a une tendance naturelle à oublier que p 輦 q équivaut à 囹 p 鈴 q et à lire cette formule «p est vrai, donc q est vrai». On trouve des textes tels que (p 輦 q ) 輦 r où l’auteur voudrait dire «p , donc q , donc r », tandis que cette formule est, dans le sens convenu de l’implication, correcte dès que p est faux. Comme l’usage de la flèche double au sens de «donc» s’étend, une tendance nouvelle se fait jour qui assigne cette interprétation à la flèche double et réserve la flèche simple à la vraie implication.

La plus importante innovation en logique symbolique fut l’introduction par Peano du 說^a pour la quantification existentielle de a . Le symbole fut légèrement changé par Russell et Whitehead en (face=F0019 說a ); ils indiquèrent la quantification universelle en mettant la variable entre parenthèses. Ces notations sont devenues maintenant très courantes, mais entre-temps on a ajouté un 葉 pour signifier la quantification universelle. Les 說 et 葉 s’harmonisent peu avec les autres notations logiques et ensemblistes. Aux symboles 聆 et 惡 pour l’union et l’intersection de deux ensembles correspondent les symboles:

pour l’union et l’intersection d’un ensemble d’ensembles; on attendrait donc en tant qu’extensions des symboles logiques 鈴 et 廬 les symboles:

pour les quantifications existentielle et universelle. C’est en effet une notation relativement répandue en Europe centrale et orientale. En général, on adopte 說 et 葉, mais il faut remarquer que l’on abuse très souvent de ces symboles.

Le signe d’affirmation 塞 est le seul qui vienne de G. Frege, dont le système notationnel était typographiquement trop compliqué: A 塞 B, dans des interprétations modernes, veut dire «sous la condition A, il vaut B», ou brièvement «A donc B».

5. Le style mathématique

On a déjà parlé des différences de style entre les langues naturelles et la langue de la mathématique à l’occasion des ponctuations et des variables. Une autre divergence s’est développée depuis un siècle dans le style des liaisons de variables, en particulier dans l’indication des quantificateurs. S’il est vrai qu’on connaissait dès la logique d’Aristote les quantificateurs universel (tous) et existentiel (quelques), ceux-ci ne s’appliquaient qu’aux prédicats à un seul sujet, non aux relations qui contiennent plusieurs sujets. Au cours du développement d’une mathématique plus conceptuelle, les structures logiques des notions devinrent de plus en plus compliquées, et le degré de complication s’exprimait dans le nombre de quantificateurs successifs et alternants. Un concept paradigmatique au moyen duquel les mathématiciens apprenaient à créer des outils linguistiques utiles est celui de la continuité. À des changements infinitésimaux de x correspondent des changements infinitésimaux de y , dit Cauchy, pour formuler que, si x change peu, alors y change peu. Ce sont des «peu» différents; le premier devrait être précisé par un adverbe «suffisamment», le second par «arbitrairement», c’est-à-dire que le premier cache un quantificateur existentiel et le second un quantificateur universel. Même cette précision ne nous suffit plus; on demande aujourd’hui non seulement des quantificateurs explicites et non cachés, mais aussi l’indication explicite de leur ordre de succession. Les langues naturelles peuvent se permettre les mêmes moyens linguistiques pour indiquer les quantifications différentes: dans «une voiture coûte de l’argent» et «j’ai une voiture», une est, dans un cas, un quantificateur universel et, dans l’autre, un quantificateur existentiel; de même, dans «qui trop embrasse, mal étreint», trop cache un quantificateur existentiel et mal un quantificateur universel. Les mathématiciens ne peuvent plus se permettre de telles libertés, et c’est la raison pour laquelle ils ont développé un style particulier où la définition de la continuité d’une fonction f au point x ⁰ se lit: «Pour chaque 﨎 positif, il y a un 嗀 positif tel que, pour chaque x avec |x 漣 x ⁰| 麗 嗀 on ait |f (x ) 漣 f (x ⁰)| 麗 﨎.»

Quoique cela se formule avec les moyens linguistiques d’une langue naturelle, on est très loin de cette dernière d’un point de vue stylistique.

L’évolution qui a conduit à ce style utilisant les quantificateurs s’est faite peu à peu. Elle est loin d’être achevée. Prenons un exemple qui est encore reçu, mais qui ne le sera plus dans vingt ans. Pour démontrer que 2 est irrationnel, on raisonnerait ainsi: «Supposons au contraire l’existence d’entiers p et q tels que 2 = p /q et qui peuvent être supposés sans diviseur commun. Alors p ² = 2 q ²...», et on aboutirait à une contradiction. Les variables p et q sont liées existentiellement dans la première phrase, et on les prend libres dès la suivante; si, dans la première phrase, on remplace les variables p et q par d’autres variables, les variables de la seconde auront perdu leur support. Un autre exemple de ce genre est la définition usuelle de concepts comme celui du groupe G où l’on postule l’existence d’un e tel que ae = ea = a pour tous les a 捻 G, pour continuer avec le postulat de l’existence d’un a ^-1 捻 G pour tout a 捻 G tel que aa ^-1 = a ^-1 a = e .

Ce qu’il faut dans tous ces cas, c’est annoncer explicitement que les variables liées existentiellement seront désormais employées en tant que noms propres d’objets qui remplissent la condition imposée.

C’est un développement très récent du style mathématique que de séparer nettement quelques espèces d’adjectifs, ou d’attributs, qui sont mal distinguées dans les langues naturelles. Tandis qu’un groupe commutatif est un groupe spécial, un groupe ordonné est plus qu’un groupe, c’est une paire constituée par un groupe et par un ordre sur le même ensemble qui doivent être en outre compatibles. Enfin, parler de «groupe de Galois» n’est pas du tout signifier un groupe, mais un foncteur qui à certaines paires de corps fait correspondre un groupe.

Terminons par un exemple frappant du changement de style mathématique. Dans ses célèbres Gundlagen der Geometrie de 1899, Hilbert introduit les axiomes de la géométrie par une explication de ce genre: «Nous nous imaginons trois systèmes d’objets... points... droites... plans, en relations mutuelles appelées «situé sur», «entre», «congruent»...» Cela sonne comme si l’on introduisait la définition de ce qui est un groupe par un préambule: «Nous nous donnons un système d’objets qu’on peut multiplier l’un par l’autre tel que...» où le terme de groupe ne figurerait pas. Aujourd’hui, le préambule du système axiomatique de Hilbert serait plutôt formulé de la manière suivante: «Une géométrie euclidienne est un système constitué de trois ensembles (points, droites, plans) et de relations appelées... tel que...»

Encyclopédie Universelle. 2012.